'Človeški vid in sluh preprosto nista dovolj dobra za to nalogo'

"Človeški vid in sluh preprosto nista dovolj dobra za to nalogo," opozarja nekdanji profesor Univerze Berkeley in soustanovitelj podjetja GetReal, ki se ukvarja z odkrivanjem digitalnih ponaredkov. Po njegovih besedah svet vstopa v obdobje, ko bo vprašanje resničnosti postalo eno ključnih političnih in družbenih vprašanj.

Ko je Farid leta 1999 začel raziskovati digitalne dokaze, je bil svet še vedno pretežno analogen. Fotografije so nastajale na filmih, družbena omrežja praktično niso obstajala, digitalne manipulacije pa so bile redke. Takrat so številni menili, da raziskuje problem, ki ga v resnici ni. "Nihče ni verjel, da bo to nekoč pomembno," se spominja, piše Business Insider.

Toda digitalna revolucija je vse spremenila. Najprej so se začela pojavljati vprašanja medijskih hiš in sodišč, kako preveriti pristnost fotografij. Nato so prišla družbena omrežja, pametni telefoni in množična produkcija vsebin. Danes so digitalni ponaredki postali vsakodnevni problem.

V prvih letih digitalnih manipulacij je bilo ponaredke pogosto mogoče odkriti že z opazovanjem fotografije. Nepravilne sence, napačna razmerja, geometrijske napake ali podatki v datotekah so pogosto razkrili, da je bila fotografija obdelana v Photoshopu.

Takšne manipulacije so zahtevale veliko znanja in časa. Danes je situacija povsem drugačna. "Ne potrebujete več posebnih veščin. Potrebujete samo tipkovnico in internetno povezavo. Umetni inteligenci preprosto naročite, kaj želite narediti, in delo opravi sama," pravi Farid.

Po njegovem mnenju smo dosegli trenutek, ki so ga raziskovalci z zaskrbljenostjo pričakovali že leta. Fotografije so prve postale praktično nerazločljive od resničnosti. Kmalu za njimi so sledili glasovni posnetki. Današnji sistemi znajo posnemati intonacijo, smeh, premore med govorom in druge podrobnosti, ki jih je bilo še pred nekaj leti skoraj nemogoče ponarediti.

Zdaj isto pot prehaja video. "Če mi nekdo pokaže 30-minutni videoposnetek visoke ločljivosti, obstaja velika verjetnost, da ni ustvarjen z umetno inteligenco. Če pa gre za 15 ali 30 sekund dolg posnetek, kakršne vsak dan gledamo na družbenih omrežjih, je pogosto zelo težko ugotoviti razliko," opozarja.

Po njegovem mnenju je le vprašanje časa, kdaj bodo tudi daljši videoposnetki postali povsem prepričljivi.

Čeprav strokovnjaki še vedno lahko odkrijejo številne ponaredke, obstaja druga težava. Internet deluje hitreje od preverjanja dejstev. Farid pravi, da njegova ekipa pogosto prejme posnetek, ki je že dosegel milijone ogledov. Ko opravijo analizo in ugotovijo, da gre za manipulacijo, je škoda pogosto že storjena.

"Ura časa je na internetu večnost," opozarja. Priznava tudi, da je dokazovanje, da je nekaj lažno, pogosto lažje kot dokazovanje, da je nekaj resnično. Če pri analizi odkrijejo eno samo fizično nemogočo podrobnost, je primer praktično zaključen. Če pa napak ne najdejo, to še ne pomeni, da je vsebina pristna.

Po Faridovem mnenju največja nevarnost umetne inteligence niso posamezni lažni posnetki politikov, zvezdnikov ali vojn. Bolj ga skrbi nekaj drugega. "Ne prepiramo se več o tem, kakšna naj bo davčna politika ali kakšna naj bo vloga države. Prepiramo se o tem, ali se je nekaj sploh zgodilo." Po njegovem mnenju družbe ne morejo normalno delovati brez osnovnega soglasja o dejstvih. Demokracija predpostavlja, da se ljudje lahko ne strinjajo glede rešitev. Ne more pa delovati, če se ne strinjajo niti glede same resničnosti.

"Jaz rečem, da je dva plus dva štiri. Nekdo drug pa reče, da ni, ampak da je jabolčna čežana. Takšna je danes raven razprave," opozarja. Farid tudi ne verjame, da se bo razvoj umetne inteligence upočasnil. Nasprotno. Po njegovem mnenju bodo sistemi postajali vse boljši, cenejši in dostopnejši. Ustvarjanje lažnih fotografij, glasov in videov bo kmalu mogoče za praktično vsakogar.

Zato bo vse pomembnejša vloga digitalne forenzike, medijskih hiš in tehnoloških podjetij, ki bodo morala razviti nove načine preverjanja pristnosti vsebin. Toda tudi to morda ne bo dovolj. Največji izziv prihodnjih let po njegovem ne bo tehnološki, temveč družbeni: kako ohraniti skupen občutek za resničnost v svetu, kjer lahko vsakdo ustvari prepričljivo alternativo dejstvom.